Le aziende tecnologiche stanno creando un’intelligenza artificiale che potrebbe sfuggire al controllo e minacciare l’esistenza stessa dell’umanità. Eppure non hanno intenzione di fermarsi. “Un tempo le aziende vendevano cocaina nelle bevande. Alla fine abbiamo detto loro: smettetela, altrimenti finirete in prigione. Possiamo fare la stessa cosa con l’IA”, afferma il professor Stuart Russell, uno dei massimi esperti mondiali di intelligenza artificiale, intervistato da FocusEurope.pl.
Secondo Russell, la sopravvivenza dell’umanità di fronte alla rivoluzione dell’intelligenza artificiale dipenderà soprattutto dalle decisioni che verranno prese nei prossimi anni. La possibilità più importante, a suo giudizio, è impedire la creazione di sistemi incontrollati di intelligenza artificiale superintelligente.
Il modo per farlo, sostiene, è relativamente semplice: attraverso la legge. Ogni Paese dovrebbe dotarsi di norme capaci di impedire lo sviluppo di sistemi di questo tipo prima che sia stato dimostrato che possono essere controllati e utilizzati in sicurezza.
Il fatto che i principali giganti tecnologici operino soprattutto negli Stati Uniti e in Cina non rappresenta, secondo Russell, un ostacolo insormontabile. La politica può comunque intervenire. Stati come California, New York, Texas e Florida possono introdurre proprie regolamentazioni, fino ad arrivare a un intervento del governo federale statunitense.
Russell ricorre a un paragone volutamente provocatorio. Un tempo, ricorda, le aziende vendevano bevande contenenti cocaina. A un certo punto le autorità hanno semplicemente stabilito che ciò non era più accettabile: “Smettete di farlo. Se continuerete, finirete in prigione”. E le aziende hanno smesso.
Per questo motivo, il professore considera irresponsabile sviluppare un’AGI, un’intelligenza artificiale generale, senza aver prima risolto il problema del controllo. “Non credo che sia ragionevole creare un’AGI senza aver prima risolto il problema del controllo di sistemi di questo tipo. E al momento non abbiamo una soluzione”.
Il problema della superintelligenza
Russell riconosce che figure come Elon Musk possono essere animate da una spinta quasi irresistibile verso l’innovazione e la conquista di nuovi traguardi tecnologici. Ma, a suo giudizio, questa spinta non è impossibile da fermare. Esiste infatti, sostiene, un ampio sostegno dell’opinione pubblica alla regolamentazione. Oltre il 90% degli americani sarebbe favorevole a norme capaci di impedire la creazione di una superintelligenza incontrollata.
Anche l’argomento secondo cui lo sviluppo dell’IA sarebbe ormai inevitabile non convince Russell. Se una maggioranza sufficientemente ampia del Congresso decidesse di vietare la creazione di sistemi superintelligenti, osserva, il divieto sarebbe possibile. La questione, secondo il professore, è innanzitutto politica. Se la scelta fosse tra l’umanità e i futuri “governanti basati sull’AGI”, non ci sarebbero dubbi su quale parte scegliere.
Il punto è che il rischio non viene evocato soltanto da critici esterni dell’intelligenza artificiale. “Sono gli stessi uomini che la stanno creando a crederlo”, sottolinea Russell. Alcuni dei protagonisti del settore, infatti, hanno ammesso pubblicamente che, se i loro progetti dovessero avere successo nella forma attualmente perseguita, esisterebbe una probabilità significativa che l’umanità venga distrutta.
La contraddizione è evidente: se chi costruisce queste tecnologie riconosce la possibilità di una catastrofe, perché continua a svilupparle? La risposta di Russell è semplice. “Forse smetteranno, ma per ora non lo fanno. Per questo abbiamo bisogno di regolamentazione”.
Il rischio dell’asteroide
Per spiegare la sua posizione, Russell ricorre a una metafora. Immaginiamo, dice, di scoprire un enorme asteroide diretto verso la Terra, con un’orbita instabile che rende impossibile prevedere con precisione il momento dell’impatto. Potrebbe colpire il pianeta il prossimo Natale oppure tra cinque anni. Nessuno considererebbe ragionevole aspettare semplicemente per vedere cosa succede.
“Dobbiamo prepararci al peggiore scenario”, spiega Russell. Occorrerebbe trovare un modo per distruggere l’asteroide prima della prima data possibile di collisione, invece di aspettare sperando che tutto vada per il meglio.
Nel caso dell’intelligenza artificiale, tuttavia, esiste una differenza fondamentale: l’asteroide non arriva dallo spazio. “Siamo noi stessi a produrre l’asteroide”, osserva. È l’umanità a costruire la tecnologia che potrebbe rappresentare la minaccia.
La conclusione è quindi radicale: se la costruzione di queste macchine costituisce un rischio esistenziale, basta smettere di costruirle. E se le aziende non intendono fermarsi spontaneamente, sostiene Russell, dovrebbero essere fermate attraverso la legge.
Una regolamentazione prima che sia troppo tardi
Russell ritiene che, prima o poi, potrebbe diventare politicamente evidente la necessità di vietare la costruzione di sistemi di IA che superino determinati livelli di capacità, almeno fino a quando non sarà dimostrato che possono essere controllati.
Un elemento gioca a favore della regolamentazione: la costruzione dei sistemi più avanzati è ancora un processo relativamente lento e soprattutto estremamente costoso.
Per Russell è quindi altamente improbabile che una grande società, soprattutto se quotata in borsa e sottoposta al controllo di un consiglio di amministrazione, decida consapevolmente di spendere miliardi di dollari per violare una legge.
Gli amministratori saprebbero di rischiare il carcere, la chiusura dell’azienda e la perdita degli investimenti. Inoltre, per sviluppare clandestinamente sistemi di questo tipo, sarebbe necessario che ogni dipendente mantenesse il segreto.
Questo non significa che una regolamentazione sarebbe perfetta. Nessun sistema normativo lo è. Anche le leggi che vietano l’omicidio non impediscono completamente agli omicidi di verificarsi. Ma, secondo Russell, questo non rappresenta un argomento contro l’esistenza stessa della legge.
La conclusione è netta. Chiunque abbia riflettuto seriamente sul problema dovrebbe riconoscere la necessità di norme che impediscano la creazione e la diffusione di macchine superintelligenti incontrollate. “Non ho ancora parlato con nessuno che ritenga una buona idea creare macchine di questo tipo”, afferma.
L’Europa può giocare la sua partita
In questo scenario, l’Europa non è necessariamente destinata a rimanere ai margini. Secondo Russell, nel lungo periodo la capacità di sviluppare sistemi sempre più avanzati dipenderà dalla capacità di controllarli e garantirne la sicurezza.
Da questo punto di vista, l’Europa potrebbe avere alcuni vantaggi tecnologici derivanti dalla propria tradizione informatica, maggiormente orientata verso l’utilizzo di garanzie formali sulla correttezza dei sistemi. Alla fine, sostiene Russell, saranno proprio i sistemi che offrono sufficienti garanzie di sicurezza a essere realmente utilizzabili.
Il professore respinge quindi anche uno degli argomenti più frequenti delle aziende tecnologiche europee: l’idea che le regolamentazioni stiano uccidendo la competitività e l’innovazione. “Non è vero”, afferma. A suo giudizio, il vero problema dell’Europa è la mancanza di capitale di rischio.
Le aziende americane, osserva, sostengono spesso che determinate regolamentazioni sarebbero troppo costose o complicate da rispettare e renderebbero impossibile operare. Ma molte delle stesse norme sono già in vigore in Europa e le aziende continuano a funzionare. Per Russell, le imprese diranno “qualsiasi cosa” pur di ottenere ciò che vogliono.
Il vero limite dell’Europa sarebbe piuttosto la difficoltà nell’attrarre investimenti. Negli Stati Uniti, una startup può riuscire a raccogliere somme di denaro enormemente superiori rispetto a una startup europea, arrivando in alcuni casi a raccogliere cento volte tanto.
Il mito della frammentazione europea
Anche la frammentazione del mercato europeo viene spesso indicata come uno degli ostacoli alla competitività tecnologica. Ventiquattro lingue ufficiali, ventisette sistemi giuridici e fiscali e un mercato diviso tra diversi Stati sembrerebbero rendere l’Europa strutturalmente svantaggiata rispetto agli Stati Uniti. Russell invita però a non sopravvalutare questa differenza.
Anche gli Stati Uniti, ricorda, presentano un complesso mosaico di normative. Un esempio è quello delle imposte sulle vendite nel commercio elettronico. Durante la fase iniziale dello sviluppo di internet, gli acquisti online godevano in determinate circostanze di esenzioni fiscali a livello statale, con l’argomento che ciò avrebbe favorito il commercio elettronico e l’innovazione.
Quando si iniziò a discutere dell’introduzione delle imposte, le aziende sostennero che fosse impossibile gestire decine di aliquote fiscali differenti. Le autorità risposero semplicemente che le aziende avrebbero dovuto farlo. E alla fine si adeguarono.
“Non possiamo credere a tutto ciò che dicono”, osserva Russell. Il professore cita poi un esempio ancora più quotidiano: quello dei piccoli bar e ristoranti a conduzione familiare. Un’attività che vende panini deve rispettare un numero di regole e requisiti molto maggiore rispetto a molte grandi aziende tecnologiche.
Eppure queste imprese continuano a nascere e a operare. Ogni anno, sottolinea Russell, vengono aperti circa 100.000 nuovi ristoranti negli Stati Uniti, molti dei quali sono piccolissime imprese. Non è quindi necessario essere una società da mille miliardi di dollari per rispettare la legge.
Secondo Russell, nel dibattito sulla regolamentazione tecnologica vengono ripetuti da decenni argomenti che presentano le norme come incompatibili con l’innovazione. “Li sentiamo ripetere da 60 anni e i regolatori continuano in qualche modo a lasciarsi convincere”. Per il professore, è arrivato il momento di smettere di farlo.
Foto di: Il professor Stuart Russell [ITU Pictures from Geneva, Switzerland, CC BY 2.0, via Wikimedia Commons]
Tradotto da Cesare Ceccato. Articolo originale pubblicato su Focus Europe Poland disponibile qui.
